这类模型在回答问题前会生成一长串的思维链（LongCoT）；并且增加「思考 token」 的数量能够提升模型的能力。与任何强化学习问题一样，它存在一个决定轨迹如何生成的环境。

推理 llm 马尔可夫 llm推理 马尔可夫思考 2025-10-10 15:01  2

别觉得这是小打小闹，懂行的都知道，现在大语言模型推理最头疼的就是“不确定性”，明明输入一模一样的提示，输出却可能差老远。

推理 llm rl sglang llm推理 2025-10-05 11:54  1

文章概述了多种 LLM 推理框架，包括 vLLM、Hugging Face TGI、SGLang、NVIDIA Dynamo、AIBrix 和 llm-d。它们在性能、可扩展性、编排和对不同部署场景的适用性方面各有优势，满足了低延迟、高吞吐量和异构硬件部署的需

推理 llm nvidia dynamo llm推理 2025-09-20 11:42  3

今天，由 OpenAI 前 CTO Mira Murati 成立于今年 2 月的人工智能初创公司 Thinking Machines Lab，发了第一篇文章 ——《克服 LLM 推理中的不确定性》（Defeating Nondeterminism in LLM

推理 llm llm推理 miramurati miramu 2025-09-12 15:47  3

事情是这样的：今天，Thinking Machines开辟了研究博客专栏「Connectionism」（联结主义），发表了第一篇博客文章「Defeating Nondeterminism in LLM Inference」（击败LLM推理中的非确定性）。

推理 llm llm推理 万字雄文 独角兽万字 2025-09-11 14:22  3

就在今天，由 OpenAI 前 CTO Mira Murati 成立于今年 2 月的人工智能初创公司 Thinking Machines Lab，发了第一篇文章 ——《克服 LLM 推理中的不确定性》（Defeating Nondeterminism in L

推理 llm thinkingmachines llm推理 2025-09-11 11:53  3

随着 Gemini-Diffusion，Seed-Diffusion 等扩散大语言模型（DLLM）的发布，这一领域成为了工业界和学术界的热门方向。但是，当前 DLLM 存在着在推理时必须采用预设固定长度的限制，对于不同任务都需要专门调整才能达到最优效果。

推理 范式 llm 自适应 llm推理 2025-08-08 18:57  7